如今，视觉变压器在几个计算机视觉任务中的最新性能，例如图像分类和动作识别，因此非常受欢迎。尽管通过采用卷积神经网络，层次结构和紧凑的形式，视觉变压器的性能得到了极大的改善，但对利用其他数据表示形式的方法的研究有限，以完善从变形金刚网络的多头关注的注意力图。这项工作提出了一种新型的注意机制，称为Multi-manifold注意，可以替代基于变压器网络中的任何标准注意机制。提出的注意力模拟了三个不同的流形的输入空间，即欧几里得，对称的正定和格拉曼，具有不同的统计和几何特性，指导网络来考虑一组丰富的信息，描述了一组描述外观，颜色和质感的信息，图像，用于计算高度描述性的注意图。通过这种方式，指导具有拟议注意力的视觉变压器更加专注于判别特征，从而改善了分类结果，如几个知名图像分类数据集的实验结果所示。

在这项工作中，我们为UNET体系结构引入了一个受生物学启发的远程跳过连接，该连接依赖于混合图像的感知幻觉，是同时编码两个图像的图像。早期编码器特征与更深的解码器的融合允许UNET模型产生更细粒度的密集预测。尽管在细分任务中经过证明，但由于这些远程跳过连接还会导致纹理转移伪像，因此网络的好处对于密集的回归任务进行了下降加权。特别是为了深度估计，这损害了光滑度，并引入了假正边，这是由于深度地图的平滑性质而对任务有害的。拟议的Hybridskip连接显示在平衡边缘保存之间的权衡方面的性能得到了改善，以及损害光滑度的纹理转移伪像的最小化。这是通过分别在高频和低频，编码器和解码器特征之间提供的信息的适当和平衡的信息来实现的。

球形摄像机以整体方式捕获场景，并已用于房间布局估计。最近，随着适当数据集的可用性，从单个全向图像中的深度估计也取得了进展。尽管这两个任务是互补的，但很少有作品能够并行探索它们以提高室内几何感知，而那些这样做的人则依靠合成数据或使用过的小型数据集，因为很少有选项可供选择，包括两个布局。在真实场景中的注释和密集的深度图。这部分是由于需要对房间布局进行手动注释。在这项工作中，我们超越了此限制，并生成360几何视觉（360V）数据集，该数据集包括多种模式，多视图立体声数据并自动生成弱布局提示。我们还探索了两个任务之间的明确耦合，以将它们集成到经过单打的训练模型中。我们依靠基于深度的布局重建和基于布局的深度注意，这表明了两项任务的性能提高。通过使用单个360摄像机扫描房间，出现了便利和快速建筑规模3D扫描的机会。

在这项工作中，我们为计算机愿景任务提供了分发换档基准;单眼深度估计。我们的差异化是对野外数据的不受控制测试的更广泛分配转变的分解，以三个不同的分布换档。具体地，我们通过合成生成数据，并分析它们以产生协变量（颜色输入），之前（深度输出）和概念（其关系）分布换档。我们还综合组合并展示了每个对地址的确实是一个不同的挑战，因为堆叠它们产生增加的性能下降，并且不能使用标准方法水平寻址。

The deep neural network (DNN) models for object detection using camera images are widely adopted in autonomous vehicles. However, DNN models are shown to be susceptible to adversarial image perturbations. In the existing methods of generating the adversarial image perturbations, optimizations take each incoming image frame as the decision variable to generate an image perturbation. Therefore, given a new image, the typically computationally-expensive optimization needs to start over as there is no learning between the independent optimizations. Very few approaches have been developed for attacking online image streams while considering the underlying physical dynamics of autonomous vehicles, their mission, and the environment. We propose a multi-level stochastic optimization framework that monitors an attacker's capability of generating the adversarial perturbations. Based on this capability level, a binary decision attack/not attack is introduced to enhance the effectiveness of the attacker. We evaluate our proposed multi-level image attack framework using simulations for vision-guided autonomous vehicles and actual tests with a small indoor drone in an office environment. The results show our method's capability to generate the image attack in real-time while monitoring when the attacker is proficient given state estimates.

We extend Textual Inversion to learn pseudo-words that represent a concept at different resolutions. This allows us to generate images that use the concept with different levels of detail and also to manipulate different resolutions using language. Once learned, the user can generate images at different levels of agreement to the original concept; "A photo of $S^*(0)$" produces the exact object while the prompt "A photo of $S^*(0.8)$" only matches the rough outlines and colors. Our framework allows us to generate images that use different resolutions of an image (e.g. details, textures, styles) as separate pseudo-words that can be composed in various ways. We open-soure our code in the following URL: https://github.com/giannisdaras/multires_textual_inversion

Pre-trained Transformers currently dominate most NLP tasks. They impose, however, limits on the maximum input length (512 sub-words in BERT), which are too restrictive in the legal domain. Even sparse-attention models, such as Longformer and BigBird, which increase the maximum input length to 4,096 sub-words, severely truncate texts in three of the six datasets of LexGLUE. Simpler linear classifiers with TF-IDF features can handle texts of any length, require far less resources to train and deploy, but are usually outperformed by pre-trained Transformers. We explore two directions to cope with long legal texts: (i) modifying a Longformer warm-started from LegalBERT to handle even longer texts (up to 8,192 sub-words), and (ii) modifying LegalBERT to use TF-IDF representations. The first approach is the best in terms of performance, surpassing a hierarchical version of LegalBERT, which was the previous state of the art in LexGLUE. The second approach leads to computationally more efficient models at the expense of lower performance, but the resulting models still outperform overall a linear SVM with TF-IDF features in long legal document classification.

近年来，通过编码签名距离的神经网络的隐式表面表示已获得流行，并获得了最先进的结果。但是，与传统的形状表示（例如多边形网格）相反，隐式表示不容易编辑，并且试图解决此问题的现有作品非常有限。在这项工作中，我们提出了第一种通过神经网络表达的签名距离函数有效互动编辑的方法，从而可以自由编辑。受到网格雕刻软件的启发，我们使用了一个基于刷子的框架，该框架是直观的，将来可以由雕塑家和数字艺术家使用。为了定位所需的表面变形，我们通过使用其副本来调节网络来采样先前表达的表面。我们引入了一个新型框架，用于模拟雕刻风格的表面编辑，并结合交互式表面采样和网络重量的有效适应。我们在各种不同的3D对象和许多不同的编辑下进行定性和定量评估我们的方法。报告的结果清楚地表明，我们的方法在实现所需的编辑方面产生了很高的精度，同时保留了交互区域之外的几何形状。

在软件开发过程中，开发人员需要回答有关代码语义方面的查询。即使已经用神经方法进行了广泛的自然语言研究，但尚未探索使用神经网络对代码回答语义查询的问题。这主要是因为没有现有的数据集，具有提取性问答和答案对，涉及复杂概念和较长推理的代码。我们通过构建一个名为Codequeries的新的，策划的数据集并提出了一种关于代码的神经问题方法来弥合这一差距。我们基于最先进的预训练的代码模型，以预测答案和支持事实跨度。给定查询和代码，只有一些代码可能与回答查询有关。我们首先在理想的环境下进行实验，其中仅给出了模型的相关代码，并表明我们的模型做得很好。然后，我们在三个务实的考虑因素下进行实验：（1）扩展到大尺寸的代码，（2）从有限数量的示例中学习，（3）代码中对次要语法错误的鲁棒性。我们的结果表明，虽然神经模型可以抵御代码中的次要语法错误，代码的大小增加，与查询无关的代码的存在以及减少的培训示例数量限制了模型性能。我们正在释放数据和模型，以促进未来关于回答代码语义查询的问题的工作。

我们定义了更广泛的腐败过程，该过程概括了先前已知的扩散模型。为了扭转这些一般的扩散，我们提出了一个称为“软得分匹配”的新目标，可以证明可以学习任何线性腐败过程的得分功能，并为Celeba提供最先进的结果。软得分匹配结合了网络中的降解过程，并训练模型以预测腐败与扩散观察相匹配的干净图像。我们表明，我们的目标在适当的规律性条件下为腐败过程的家庭学习了可能性的梯度。我们进一步开发了一种原则性的方法，以选择一般扩散过程的损坏水平和一种我们称为动量采样器的新型抽样方法。我们评估了我们的框架，腐败是高斯模糊和低幅度添加噪声。我们的方法在Celeba-64上获得了最先进的FID得分$ 1.85 $，表现优于所有以前的线性扩散模型。与香草deno的扩散相比，我们还显示出显着的计算益处。